Ask, Don't Judge: Binary Questions for Interpretable LLM Evaluation and Self-Improvement
问，勿判：二进制问题驱动的可解释 LLM 评估与自改进
🧭 可解释 LLM 评估 · 二进制问题分解 ★ 深度解读
Capital One, AI Foundations
将评估准则分解为原子化二进制问题，实现可解释、可诊断且支持迭代提示优化的 LLM 评估框架
📌 工作参考价值（4 点）
- 可解释的离线评估体系：在推荐/搜索场景中，生成式模型输出（如商品推荐理由、搜索摘要、对话式回应）的评估常依赖人类，或使用单一分数（如 BERTScore）难以定位问题。BINEVAL 的思路可直接复用：将业务评估维度（相关性、信息量、品牌安全、时效性）分解为一组原子化 yes/no 问题，由 LLM 逐一回答并聚合得分，每个 badcase 都能追溯到具体问题，让离线评估从黑盒变为可诊断的诊断工具。
- 自动化 Badcase 分类与监控：线上实验通常只能看到整体指标下跌，不知道哪类问题在增多。可以借鉴 BINEVAL 的二进制问题设计，构建一套自动化质检 pipeline，对线上采样结果用 yes/no 问题检测是否违背特定规则（如“是否包含虚假价格”“是否推荐已下架商品”），再聚合为各类问题发生率，快速定位系统退化点。
- 迭代式 Prompt 优化：在 Agent 或生成式推荐场景，prompt 版本迭代缺乏客观反馈信号。可用 BINEVAL 的“自我更新”或“跨模型更新”模式，对失败样例提取教训并自动改写 prompt。该 trick 尤其适用：当模型已有能力但未被正确引导时（如格式化输出、关键词包含），通过少量失败样本的二进制反馈即可稳定提升；但对需要精确计数或复杂推理的能力瓶颈，则应避免过度优化，以免 prompt 膨胀损害其他维度。
- 评估者模型迁移的对齐：当从一个大模型（如 GPT-4）迁到较小开源模型作为评估器时，BINEVAL 的跨模型 prompt 更新能利用强大模型的二进制问答结果作为参考，通过找出不一致的二进制问题并提取教训来对齐新模型的评估行为，降低迁移成本并保持评估一致性。